home *** CD-ROM | disk | FTP | other *** search
/ HPAVC / HPAVC CD-ROM.iso / SNNSV32.ZIP / SNNSv3.2 / examples / eight_elman.README < prev    next >
Text File  |  1994-04-25  |  4KB  |  93 lines
  1. =============================================================================
  2.     README file for the example files eight_elman.xxx
  3. =============================================================================
  4.  
  5.  
  6. Description:    Elman network (partially recurrent network)
  7. ============    for the task to learn the shape of a lying figure '8'.
  8.  
  9. The task of this partially recurrent network is to predict the shape
  10. of a lying figure '8'. The problem is described in detail in 
  11.  
  12. J.L. Elman: Finding Structure in Time. Cognitive Science, 14:179-211, 1990
  13.  
  14. The two input units code the (x, y)-Position of the current point of
  15. the curve, the output units the (x', y')-Position of the next
  16. point. Usually 16 points (patterns) are used to approximate the shape
  17. of the figure 8, the central crossing point (0.5, 0.5) appearing
  18. twice, depending on which direction the stroke takes. The difficulty
  19. for the network arises from the input pattern of this central crossing
  20. point for which the network must predict two different successors
  21. (output patterns) depending on the previous point.
  22.  
  23. See the user manual for a detailed description of Elman networks and
  24. their usage.
  25.  
  26.  
  27. Network-Files:    eight_elman.net
  28. ==============
  29.  
  30. This network file contains a trained elman network for the task to
  31. predict the figure of a lying eight described above. The standard
  32. configuration file for this network is eight_elman.cfg (one 2D display
  33. only).
  34.  
  35.  
  36. Pattern-Files:    eight_016.pat
  37. ==============    eight_160.pat
  38.  
  39. The pattern files differ only in the number of patterns they contain,
  40. indicated in the name of the pattern file. The larger file consists of
  41. 10 concatenations of the smaller one
  42.  
  43.  
  44. Hints:
  45. ======
  46.  
  47. The easiest way to create Jordan or Elman networks is with the BIGNET
  48. panel from the info panel. All network parameters can then be
  49. specified in a special Jordan or Elman network creation panel called
  50. with the respective button in the BIGNET panel.
  51.  
  52. If you want to train your own Elman or Jordan network from scratch,
  53. note to set the proper initialization function and initialization
  54. parameters.  In this example, we use the following values:
  55.  1.0,  -1.0,  0.3,  1.0,  0.5  (5 parameters).
  56.  
  57. Remember to set the update function to JE_Order or JE_Special,
  58. depending on your task (see the SNNS user manual for more details).
  59.  
  60. You may choose between four different learning functions. They are
  61. given here with some values for the learning parameters for which the
  62. training is relatively fast
  63.  
  64.             1st    2nd    3rd    4th    5th
  65. JE_BP (Backprop)    0.2
  66. JE_BP_Momentum        0.2    0.5
  67. JE_Quickprop        0.3    2.0    0.0001
  68. JE_Rprop        0.1    50.0
  69.  
  70. The behaviour of this network can very nicely be visualized with the
  71. network analyzer tool which can be called from the info panel with the
  72. GUI button as ANALYZER. The proceed as follows:
  73. Press ON and LINE (so that both buttons are highlighted) from the
  74. buttons at the right.
  75. Press SETUP and choose X-Y graph from the network analyzer setup panel.
  76. Choose the following values for axis, min, max, unit, grid:
  77.     x    0.0,  1.0,  11,  10
  78.     y    0.0,  1.0,  12,  10
  79. This specifies the display area to be [0, 1] x [0, 1] and the outputs
  80. of neurons 11 and 12 for x and y (the output units of the elman
  81. network).
  82. Choose m-test: 16 in this network analyzer setup panel to test 16
  83. patterns in a multiple inputs test sequence (You may also choose to test
  84. more or less input patterns.
  85.  
  86. Finally, press the button M-TEST to test the trained network for the
  87. number of input patterns specified.
  88.  
  89.  
  90. =============================================================================
  91.     End of README file
  92. =============================================================================
  93.